人工智能在自动驾驶领域应用的法律问题

作者：

丁恒 潘玲 金享 胡运思

序言

在2021年7月8日至10日进行的2021世界人工智能大会中，有将近20家自动驾驶企业参加了大会。在全球受新冠疫情冲击的大背景下，人们的日常交往受限，自动驾驶行业却面临着前所未有的机遇——世界多国的自动驾驶技术和监管机制都取得了巨大的突破，尤其在中国，自动驾驶产业生态已经逐步建立完善。而人工智能作为自动驾驶领域中最重要和最复杂的组成部分，也迎来了巨大发展。

人工智能在自动驾驶技术中的应用最早可以追溯到2005年美国国防部高级研究计划局（DARPA）举办的无人驾驶车挑战赛，彼时由斯坦福大学Sebastian Thurn教授领导的无人驾驶汽车项目“Stanley”，使用传感器和一系列为无人驾驶车辆量身定制的算法软件，使得汽车本身可以寻找路径、探测并躲避障碍，最后成功通过了路况恶劣的赛道取得了胜利。Thurn教授后来加入了谷歌自动驾驶汽车项目，即后来为人熟知的Waymo。在此之后，人工智能在自动驾驶领域具有的突出优势越来越为人们所熟知，并且随着自动驾驶技术的发展，人们逐渐意识到自动驾驶车辆的上路运行无法或无法完全依赖人类驾驶员对于路况的感知与判断，当车体安装的雷达、摄像头等探测装置将收集到的交通数据传输至驾驶系统时，势必要依赖人工智能对这些数据进行实时传输、分析处理以及智能决策，因此将人工智能技术与无人驾驶技术的结合应用就水到渠成。

总的来说，人工智能可以在环境感知、决策规划、控制执行三个应用场景[1]中为自动驾驶系统提供较为安全、稳定的支持，因而受到越来越多的自动驾驶技术开发者的关注，或者说高度自动驾驶技术的成熟和广泛应用必然要依靠人工智能；诚然在运用到自动驾驶的过程中，也会面临一系列的法律问题。本文将结合上述三个应用场景，从测绘、数据保护以及侵权责任的分配的角度分析人工智能在自动驾驶应用领域可能引起的法律问题。

一

人工智能在自动驾驶领域应用的法律问题概述

1、测绘问题

如前所述，人工智能可以在环境感知、决策规划、控制执行三个应用场景中为自动驾驶技术提供支持。在环境感知环节，人工智能技术会通过摄像头、雷达等传感器对周边的自然地理要素及地表人工设施等相关数据的采集及处理，以协助汽车作出正确的判断。相关地理数据采集行为很有可能被认定为《中华人民共和国测绘法》（以下简称“《测绘法》”）中定义的测绘行为[2]。根据《测绘法》等相关规定，从事测绘活动的单位，应当依法取得测绘资质证书，并在测绘资质等级许可的专业类别和作业限制范围内从事测绘活动[3]。

根据《测绘资质管理办法》第二条及《关于加强自动驾驶地图生产测试与应用管理的通知》第一条，在测绘资质方面，自动驾驶企业可能需要取得的资质包括导航电子地图制作与互联网地图服务的相关资质。而关于导航电子地图制作，根据《外商投资准入特别管理措施（负面清单）（2020年版）》以及《外国的组织或者个人来华测绘管理暂行办法（2019年修正）》的相关规定，导航电子地图制作属于禁止外商投资的项目。

实践中，考虑到测绘资质对于外资背景的限制以及测绘资质本身申请难度较高[4]，对于有外资背景的自动驾驶企业来说，其往往会选择与拥有相应测绘资质的企业进行合作，让具有测绘资质的企业对相应地理数据进行采集和处理，自己仅负责提供自动驾驶方案，以此形式开展业务。通过这种模式，笔者认为可以无需取得相关测绘资质。反之，如果自动驾驶企业将自动驾驶过程中采集的相关数据先传输到自动驾驶企业，再由自动驾驶企业传输至地图制作单位的，那么自动驾驶企业在此过程中的行为就很有可能被认定为测绘行为。

目前，随着人工智能技术的不断发展，导航电子地图的制作技术也在不断发展。这些发展，将直接影响自动驾驶企业在测绘行为中所起到的作用，进而进一步影响自动驾驶企业的测绘资质获取问题。关于此问题，笔者认为需持续关注最新的立法动态。

2、数据保护问题

在自动驾驶情境下，在环境感知、决策规划、控制执行三个应用场景中，均存在数据收集、数据交换和数据处理的相关行为。目前，以欧盟《通用数据保护条例》（“GDPR”）为代表，世界主流国家都在加快个人信息保护法律的制定，并对数据的收集、使用和传输进行规制。一般来说，对于自动驾驶情境下的数据规制，主要以各国的网络安全和个人信息保护规定为主，辅以针对汽车行业数据的特别规定。下文以中国法项下相关规定为例，进行详细分析。

（1）数据收集需要注意的事项

依靠机器的深度学习、对数据进行分析处理是人工智能自动驾驶汽车成功的基础[5]，而机器的深度学习离不开大量的数据训练，因此人工智能自动驾驶将可能引发大量对于个人信息以及交通道路数据等数据的收集。自动驾驶服务商不仅可能是汽车实体的制造者，通常情况下，它还是车联网服务的提供者和实际管理者，向自动驾驶用户提供网络服务。因此，自动驾驶服务商实际上扮演了《网络安全法》（以下简称“《网安法》”）项下所定义的“网络运营者[6]”的角色。不仅如此，由于自动驾驶所在的交通行业属于《网安法》第三十一条所规定的“重点行业”，国家实行重点保护，结合《关键信息基础设施安全保护条例》第二条[7]对于关键信息基础设施的具体定义，笔者理解，自动驾驶服务商极有可能被认定为关键信息基础设施的运营者（即Critical Information Infrastructure Operators “CIIO”）[8]。对于CIIO，在中国网络安全和数据保护监管体系下，对其有着相对于一般网络运营者更高的合规标准。

笔者认为，自动驾驶服务商的个人信息收集应特别关注以下两个方面：

• 在信息收集的范围上，需要符合汽车数据安全监管的要求以及对汽车行业重要数据的特殊规定。

• 在信息收集的过程中，需要考虑隐私政策与用户同意的合规性。

在数据收集的范围上，除了遵循最小必要原则进行用户信息收集，根据2021年6月10日通过的《数据安全法》的相关规定，自动驾驶服务商需要甄别其收集使用的信息是否属于汽车行业的“重要数据”，并对“重要数据”进行重点保护。在国家网信办于2021年8月16日发布的《汽车数据安全管理若干规定（试行）》（以下简称“《汽车数据规定》”）中，规定了汽车数据收集的“默认不收集”原则，并对汽车行业的重要数据进行了明确，规定了6类重要数据，分别为重要敏感区域的人流车流数据、高精地图测绘数据、汽车充电网的运行数据、道路车辆类型、流量等数据、包含人脸、声音、车牌等车外音视频数据以及其他可能影响国家安全、公共利益的数据[9]。处理该等数据，需要依照《汽车数据规定》下的重要数据处理原则进行处理，如车内处理、非必要不向车外提供以及数据本地化要求等。笔者建议自动驾驶服务商在收集数据时，依照国家相关法律法规，对数据进行甄别并分类，并依据数据的类型采取不同的措施。

在数据收集的过程中，自动驾驶车辆与驾驶员之间的互动通常是通过驾驶员的智能移动设备实现的[10]，而车载用户交互软件的设计和使用，通常涉及到用户隐私政策的编写。隐私政策与用户的知情、同意、撤回同意以及拒绝权息息相关。通常做法是自动驾驶服务商将需要向用户明示告知的所有有关数据收集、处理、传输的重要信息纳入隐私政策，从而使得用户能够及时、充分地了解自己数据的收集处理情况，以方便用户行使同意、撤回同意或拒绝信息收集、使用和传输的权利。在中国，根据《网安法》及国家标准《GB/T 35273-2020 信息技术安全 个人信息规范》（以下简称“《个人信息规范》”）等相关法律法规要求，个人信息保护政策应清晰、准确、完整地描述个人信息控制者的个人信息处理行为。因此对于自动驾驶服务商而言，在设置汽车人机交互系统时，应当确保隐私政策中，对于信息的处理作出了较为全面和清晰的说明，且内容对于用户而言通俗易懂，以此获得用户基于充分了解信息收集、处理规则作出的明确、清楚的同意。

（2）个人数据处理需要注意的事项

笔者理解，在自动驾驶场景下，人工智能系统会对用户日常驾驶爱好进行收集分析，从而形成下一次入舱时的默认设定；不仅如此，系统可能还会基于驾驶员的驾驶习惯，在突发事件下对汽车的运行方案作出指示。而这些操作，很大程度上依赖于用户画像进行数据处理。用户画像在许多国家的数据保护法中都受到严格的限制，原因在于用户画像涉及到机器对人进行评价、分类，从而进行倾向性判断。用户画像的下一步通常是自动化决策，由于自动化决策存在对于决策对象的性别、肤色、宗教、种族等歧视的风险，因此各国对于这类技术的运用一直比较谨慎。

在我国，用户画像并不被绝对禁止。根据《个人信息规范》第7.4条的规定，使用用户画像时，个人信息控制者除为实现个人信息主体授权同意的使用目的所必需外，使用个人信息时应消除明确身份指向性，避免精确定位到特定个人。笔者理解，当数据主体明示授权可以对其进行用户画像，以完成驾驶任务、优化驾驶体验时，用户画像是被允许的。但是需要注意的是，如果用户画像可能会引起自动化决策，那么在决策时要注意用户画像的合规性，比如该种自动化决策是否真的有必要。在紧急情况下，自动驾驶汽车该牺牲哪方利益、保护哪方利益（例如，在对人类生命安全造成损害无可避免时，应当牺牲和挽救哪类人群的利益）在伦理上都一直存在争议，这时驾驶系统的自动化决策应当更加审慎，从而降低争议的风险。

（3）数据出境需要注意的事项

由于相当一部分自动驾驶企业涉及到跨国业务，许多自动驾驶企业出于监管或商业等因素的考量，选择将自己的数据储存在国外的服务器上，从而不可避免地产生跨境数据流。随着各国对于跨境数据传输提出越来越高的合规要求，自动驾驶企业势必需要关注不同国家和地区的跨境数据传输规则。

如前文所述，在中国《网安法》项下，作为网络运营者及CIIO，自动驾驶服务商在数据出境方面，需要特别谨慎，比如应以数据本地储存为原则，仅在特殊情况下可以出境，且数据出境必须进行安全评估[11]。关于个人信息的储存问题，根据《个人信息保护法》第四十条的规定，“关键信息基础设施运营者和处理个人信息达到国家网信部门规定数量的个人信息处理者，应当将在中华人民共和国境内收集和产生的个人信息存储在境内。确需向境外提供的，应当通过国家网信部门组织的安全评估；法律、行政法规和国家网信部门规定可以不进行安全评估的，从其规定。”实践中，由于车企往往会收集处理大量个人信息，不排除被认定为关键信息基础设施运营者的可能性，此时，汽车数据处理者仍将承担将个人信息存储在境内的义务。

值得一提的是，面对各国不同标准的数据保护法，自动驾驶汽车企业还可能面临需要在各国分别合规的复杂情况。如今各国数据保护标准和体系参差不一，各国数据保护法在数据的范围、保护规则和惩罚力度等方面都有着相当显著的差异。这也为自动驾驶汽车企业在业务中较难避免的跨境数据流动设置了障碍。

3、侵权责任

相较于传统交通事故，自动驾驶涉及的主体包括自动驾驶汽车生产商、自动驾驶服务商、汽车销售者、车辆使用人、车辆驾驶员等。自动驾驶模式下由于侵权涉及主体的多元化，导致了侵权行为和损害后果之间的因果关系更为模糊，传统的机动车交通事故责任的归责原则逐渐受到挑战。在此情形下，当自动驾驶车辆发生事故并造成人员伤亡或财产损失时，如何在人类驾驶员和自动驾驶系统（或者说，自动驾驶系统的最终责任人）之间判定责任就成为了问题的核心。鉴于目前主流的自动驾驶技术以3级驾驶自动化（有条件自动驾驶）[12]，即人机混合驾驶模式为主，以下，笔者将以3级驾驶自动化模式为例，对此问题进行简要论述。

（1）驾驶人责任

关于处于3级驾驶自动化状态下的汽车发生交通事故，驾驶人是否应当承担侵权责任的问题，笔者认为，首先应当判断在3级驾驶自动化状态下驾驶人对车辆是否负有管理义务。

根据国家推荐性标准《汽车驾驶自动化分级（推荐性国家标准报批稿）》3.5.4条[13]，3级驾驶自动化状态下，驾驶人需要在车辆发出接管请求或者车辆处于不适合自动驾驶的状态时接管车辆。《深圳经济特区智能网联汽车管理条例（征求意见稿）》第二十六条[14]，也有类似规定。

因此，笔者认为，对于3级驾驶自动化状态下的汽车，驾驶员依然负有管理汽车的义务，需要识别车辆是否满足设计运行条件，并在车辆发出接管请求时立即接管汽车。不仅如此，自动驾驶汽车的驾驶员还负有对车辆进行维修、保养，对人工智能系统、导航地图等及时进行更新的义务。

根据传统的机动车交通事故责任的归责原则[15]，机动车之间发生交通事故采用过错归责原则，按照各自过错的比例分担责任。机动车与非机动车驾驶人、行人之间发生交通事故的，双方均无过错时采用无过错归责原则，由机动车驾驶人承担侵权责任，非机动车驾驶人、行人有过错的可适当减轻机动车一方的责任。

因此，笔者认为，鉴于在3级驾驶自动化状态下，驾驶员依然负有管理汽车的义务，当自动驾驶车辆的驾驶人在未尽到上述义务与机动车发生交通事故时，应当根据其过错程度承担相应责任，与非机动车驾驶人、行人之间发生交通事故时，则无论是否有过错均应承担相应责任。

（2）生产者产品责任

自动驾驶汽车的生产者包括人工智能系统生产者与传统机械载体生产者。由于传统机械载体生产者责任与非自动驾驶汽车并无不同，限于篇幅，本文不再赘述，以下仅分析人工智能系统生产者的产品责任。

根据《产品质量法》第四十六条，“本法所称缺陷，是指产品存在危及人身、他人财产安全的不合理的危险。”从产品缺陷存在的和合理性角度出发，可将人工智能系统的产品缺陷分为可控缺陷与不可控缺陷。

首先，关于人工智能系统的可控缺陷目前主要包括：①系统本身的设计缺陷、②对驾驶人发出接管请求的示警系统的缺陷等。此类可控缺陷的特点在于生产者可以在源头上控制风险，通过技术升级、预置算法等规范生产者的行为可大大降低风险发生的可能。因此，笔者认为，此类可控缺陷应依据《民法典》以及《产品责任法》的相关规定[16]，由生产者和销售者承担不真正的连带责任。

其次，关于人工智能系统生产者的不可控缺陷包括：通过人工智能的自主深度学习，以及与周围环境的相互作用，基于人工智能系统独立判断产生的缺陷。由于此类缺陷的高度不可预测性，将此类责任归责于生产者将大大打击各大人工智能企业的研发积极性。因此，笔者认为，与其讨论如何归责，不如设立一套完备的生产者风险转移制度，如自动驾驶汽车强制责任险制度，强制要求自动驾驶企业为其产品进行投保，以兼顾产业发展与受害者救济之间的平衡。

结语

Conclusion

由于人工智能够在环境感知、决策规划、控制执行等环节为驾驶系统提供极大的便利，随着科技的发展和成本的降低，人工智能在自动驾驶的应用将趋向普及化。而随着人工智能在自动驾驶系统中扮演越来越重要的角色，它的风险也逐渐显现：在测绘方面，根据自动驾驶企业在数据采集的过程中起到的作用，涉及到自动驾驶企业可能需要应对相关测绘资质的取得问题；在数据安全方面，自动驾驶企业在个人信息及交通道路等数据的收集、使用和传输等方面都可能面临着向不同数据主体进行合规性应对的风险。此外，由于自动驾驶数据可能包含《网络安全法》和《数据安全法》定义下的重要数据和敏感数据，相对应地，可能面临着更高的合规要求；在跨境数据流动方面，自动驾驶企业除需要符合中国法项下的相关合规要求，还需要考虑数据接收国以及数据流可能经过的国家和地区的数据保护规则；在侵权责任分配方面，在事故发生时，在目前主流的自动驾驶技术项下，仍需要人类驾驶员依过错承担责任；而对于相关产品责任，笔者认为，人工智能系统生产者应与销售者承担不真正连带责任。

当然，由于人工智能技术所引导的自动驾驶的新颖性，目前法律对于这一新技术应用所可能产生的许多问题尚有待明确之处，笔者认为还需在未来，结合实际中产生的具体问题进行进一步讨论。

[注] 

[1] 《中国人工智能系列白皮书——智能驾驶》，中国人工智能协会，2017年10月。

[2] 《测绘法》第二条第二款，本法所称测绘，是指对自然地理要素或者地表人工设施的形状、大小、空间位置及其属性等进行测定、采集、表述，以及对获取的数据、信息、成果进行处理和提供的活动。

[3] 《测绘资质管理办法》第一条。

[4] 关于测绘资质，根据《测绘资质管理办法》和《测绘资质分类分级标准》导航电子地图制作的乙级资质需要具有15名专业人员、外业数据采集设备5台（套）（定位精度≤10m）并且仅可在相关政府部门划定的自动驾驶区域内从事导航电子地图制作，而若要取得甲级测绘资质则要满足拥有不少于100名的专业人员、外业数据采集设备30台（套）（定位精度≤10m）。互联网地图服务的乙级资质不得从事地图数据开发，并且需要拥有12名的专业技术人员，而甲级测绘资质则需要拥有20名专业技术人员以及独立地图引擎 。

[5] 《详述人工智能在自动驾驶中的应用》，智车科技，访问地址：https://blog.csdn.net/datawhale/article/details/114558118?utm_term=%E4%BA%BA%E5%B7%A5%E6%99%BA%E8%83%BD%E5%9C%A8%E8%87%AA%E5%8A%A8%E9%A9%BE%E9%A9%B6%E4%B8%AD%E7%9A%84%E5%BA%94%E7%94%A8&utm_medium=distribute.pc_aggpage_search_result.none-task-blog-2~all~sobaiduweb~default-0-114558118&spm=3001.4430，最后访问时间：2021年7月6日。

[6] 根据《网安法》第七十六条，网络运营者，是指网络的所有者、管理者和网络服务提供者。实践中，对网络运营者的解释非常宽泛。

[7] 《关键信息基础设施安全保护条例》第二条：本条例所称关键信息基础设施，是指公共通信和信息服务、能源、交通、水利、金融、公共服务、电子政务、国防科技工业等重要行业和领域的，以及其他一旦遭到破坏、丧失功能或者数据泄露，可能严重危害国家安全、国计民生、公共利益的重要网络设施、信息系统等。

[8]  《网络安全法》第三十一条。

[9] 《汽车数据安全管理若干规定（试行）》第三条。

[10] 《自动驾驶汽车开发注重数据合规性》，北京市高级别自动驾驶示范区，访问地址：https://mp.weixin.qq.com/s/LDh1yAJHxkGi1R_84wmmcg，最后访问时间2021年6月29日。

[11] 根据国家标准化管理委员会发布的《信息安全技术 数据出境安全评估指南（征求意见稿）》，作为关键信息基础设施运营者的自动驾驶服务商，其数据出境会触发国家网信部门、行业主管部门启动主动评估的条件。

[12] 根据《汽车驾驶自动化分级（推荐性国家标准报批稿）》，驾驶自动化可以分为五级，分别为0级驾驶自动化（应急辅助）、1级驾驶自动化（部分驾驶辅助）、2级驾驶自动化（组合驾驶辅助）、3级驾驶自动化（有条件自动驾驶）、4级驾驶自动化（高度自动驾驶）、5级驾驶自动化（完全自动驾驶）。其中，3级驾驶自动化（有条件自动驾驶）是指驾驶自动化系统在其设计运行条件内持续地执行全部动态驾驶任务。对于3 级驾驶自动化，动态驾驶任务接管用户以适当的方式执行动态驾驶任务接管。 

[13] 3级驾驶自动化系统应满足以下要求：a) 仅允许在设计运行条件内激活；b) 激活后在设计运行条件内执行全部动态驾驶任务；c) 识别是否即将不满足设计运行条件，并在即将不满足设计运行条件时，及时向动态驾驶任务接管用户发出接管请求；d) 识别驾驶自动化系统失效，并在发生驾驶自动化系统失效时，及时向动态驾驶任务接管用户发出接管请求；e) 识别动态驾驶任务接管用户的接管能力，并在用户的接管能力即将不满足要求时，发出接管请求；f) 在发出接管请求后，继续执行动态驾驶任务一定的时间供动态驾驶任务接管用户接管；g) 在发出接管请求后，如果动态驾驶任务接管用户未响应，适时执行风险减缓策略；h) 当用户请求驾驶自动化系统退出时，立即解除系统控制权。

[14] 《深圳经济特区智能网联汽车管理条例（征求意见稿）》第二十六条，驾驶人应当在车辆发出接管请求或者车辆处于不适合自动驾驶的状态时立即接管智能网联汽车。

[15] 《民法典》第一千二百一十三条，机动车发生交通事故造成损害，属于该机动车一方责任的，先由承保机动车强制保险的保险人在强制保险责任限额范围内予以赔偿；不足部分，由承保机动车商业保险的保险人按照保险合同的约定予以赔偿；仍然不足或者没有投保机动车商业保险的，由侵权人赔偿。

《道路交通安全法》第七十六条，机动车发生交通事故造成人身伤亡、财产损失的，由保险公司在机动车第三者责任强制保险责任限额范围内予以赔偿；不足的部分，按照下列规定承担赔偿责任：（一）机动车之间发生交通事故的，由有过错的一方承担赔偿责任；双方都有过错的，按照各自过错的比例分担责任。（二）机动车与非机动车驾驶人、行人之间发生交通事故，非机动车驾驶人、行人没有过错的，由机动车一方承担赔偿责任；有证据证明非机动车驾驶人、行人有过错的，根据过错程度适当减轻机动车一方的赔偿责任；机动车一方没有过错的，承担不超过百分之十的赔偿责任。

[16] 《民法典》 第一千二百零三条，因产品存在缺陷造成他人损害的，被侵权人可以向产品的生产者请求赔偿，也可以向产品的销售者请求赔偿。

产品缺陷由生产者造成的，销售者赔偿后，有权向生产者追偿。因销售者的过错使产品存在缺陷的，生产者赔偿后，有权向销售者追偿。

《产品责任法》第四十一条，因产品存在缺陷造成人身、缺陷产品以外的其他财产(以下简称他人财产)损害的，生产者应当承担赔偿责任。

生产者能够证明有下列情形之一的，不承担赔偿责任：(一)未将产品投入流通的；(二)产品投入流通时，引起损害的缺陷尚不存在的；(三)将产品投入流通时的科学技术水平尚不能发现缺陷的存在的。

《产品责任法》第四十三条，因产品存在缺陷造成人身、他人财产损害的，受害人可以向产品的生产者要求赔偿，也可以向产品的销售者要求赔偿。属于产品的生产者的责任，产品的销售者赔偿的，产品的销售者有权向产品的生产者追偿。属于产品的销售者的责任，产品的生产者赔偿的，产品的生产者有权向产品的销售者追偿。

The End

 作者简介

丁恒  律师

上海办公室  合伙人

业务领域：跨境投资并购, 反垄断和竞争法, 网络安全和数据保护

特色行业类别：能源与自然资源

潘玲  律师  

上海办公室  公司业务部

金享 

上海办公室  公司业务部

胡运思 

上海办公室  公司业务部

作者往期文章推荐

特别声明：

以上所刊登的文章仅代表作者本人观点，不代表北京市中伦律师事务所或其律师出具的任何形式之法律意见或建议。

如需转载或引用该等文章的任何内容，请私信沟通授权事宜，并于转载时在文章开头处注明来源于公众号“中伦视界”及作者姓名。未经本所书面授权，不得转载或使用该等文章中的任何内容，含图片、影像等视听资料。如您有意就相关议题进一步交流或探讨，欢迎与本所联系。

点击“阅读原文”，可查阅该专业文章官网版。